调研时间:2026年7月 | 用途:少年AI商学院课程素材(学部①认知基座、学部②产业地图核心参考人物)
贾扬清,清华大学自动化系本科/硕士,加州大学伯克利分校计算机科学博士,博士期间(2013年前后)创建并开源深度学习框架 Caffe,成为计算机视觉领域早期标配工具。毕业后历经 Google Brain、Facebook AI(任 AI 架构总监,主导 Caffe2 与 PyTorch 1.0、参与 ONNX),2019年回国加入阿里巴巴,任阿里巴巴集团副总裁、阿里云计算平台事业部负责人,主导大数据与AI一体化平台建设,推动了魔搭(ModelScope)开源社区。2023年3月从阿里离职,在硅谷创立Lepton AI(AI推理云平台),2025年4月被英伟达以据行业媒体披露约7亿美元收购,本人出任英伟达系统软件副总裁;2026年6月因平台开源承诺未兑现等原因从英伟达离职。他在中文互联网(知乎、播客、媒体专访)与 X(Twitter,@jiayq)上持续输出对AI基础设施成本、大模型商业化、算力经济学的犀利评论,是理解"AI算力经济学"的重要一手信源。
1. AI Infra 与传统云计算的本质区别 观点:AI计算关注"巨量运算",云计算关注"数据流转";AI基础设施的核心需求是性能和规模优先,传统云服务重视的高可用、虚拟化能力是次要的。 出处:InfoQ专访,2023年 | 适用:学部①算力经济学
2. 开源小模型 vs 闭源大模型的性价比 观点:一台GPU服务器即可支撑的7B、13B模型经过微调,性价比可能比直接调用闭源大模型高出10倍以上;企业更适合"先用闭源验证,后用开源微调"。 出处:InfoQ专访 | 适用:学部②商业化决策
3. 大模型训练的"死亡循环"式财务结构 观点:每训练一代基础大模型都要从零开始,"这次投进去10个亿,下次还要再追加投10个亿",而模型迭代快,赚钱窗口可能只有一年左右;融资资金往往直接流向硬件商而非用户付费,创业者背负10倍VC回报压力。 出处:InfoQ专访 | 适用:学部②算力经济学/商业模式
4. 英伟达的市场地位判断 观点:预计未来3-5年英伟达仍会是AI硬件绝对领头羊,市场占有率不会低于80%;但Llama、Mistral等模型的标准化,会给其他硬件厂商的兼容性突围创造空间。 出处:InfoQ专访 | 适用:学部②产业格局/国产替代思考
5. AI应用已跨越"死亡谷"的两类场景 观点:目前AI应用中,已经形成持续流量的只有两大类——"提效"和"娱乐";对万能超级App持保守态度,B端更可能是"开源模型+企业数据"的拼装模式。 出处:InfoQ专访 | 适用:学部⑤产品与商业化路径
6. 模型规模与"读博士读轴了"的比喻 观点:大模型有时像"读博士读轴了",反而本科生(即中小模型)实操性更强——7B-13B模型因性价比和可调性优势,在实际应用中表现更好。 出处:InfoQ专访 | 适用:学部④技术选型思维训练
7. 算力成本的工程拆解(推理侧) 观点:Llama 405B 报价 $2.8/百万token 仍能盈利的关键在于七项工程优化叠加——大批量处理(吞吐量提升10倍+)、动态批处理、量化(8bit/4bit)、投机解码、prompt缓存、GPU与任务精细匹配。 出处:X(@jiayq),2024年7月27日 | 适用:学部①成本核算实操案例
8. 2019年与DeepSeek团队的一次"卖不出去的AI云"往事 观点:2019年贾扬清曾找DeepSeek团队推销AI云方案,对方回应这些他们已经做了很多年,反而希望贾扬清帮忙把已投入的算力捐给高校科研,贾扬清后来协助了这个学术捐赠项目。他认为DeepSeek后来的成就"根植于多年被忽视的专业积累"。 出处:X(@jiayq),2024年12月26日 | 适用:学部②产业观察/识人所长
9. 反对给DeepSeek贴"中国"标签式解读 观点:DeepSeek的成功本质是"有限算力和人力下的智慧与务实",与所谓中美关系或GPU封锁关系不大,如同当年Alex Krizhevsky只用2块GPU做出AlexNet;强调"AI应该让我们更接近,而不是更疏远"。 出处:X(@jiayq),2024年12月26日 | 适用:学部⑧全球视野/AI伦理
10. 框架之争的哲学——速度不是唯一标准 观点:"今天速度已经不太重要了,只要不是特别差";TensorFlow教会他像系统架构师一样思考,PyTorch教会他把用户需求置于优化之上;速度与灵活性的取舍取决于场景。 出处:X(@jiayq),2024年3月31日 | 适用:学部③工程判断力培养
11. "没有算法工程师",调参侠没有市场 观点:只存在两种角色——算法研究员和应用工程师;单纯"调参"工作技术含量低,核心竞争力在于理解业务约束、做端到端整合。建议青年学习工程实践(代码管理、测试、性能基准),保持好奇心多动手尝试。 出处:知乎live/媒体转载,2020年8月 | 适用:学部④AI人才培养
12. 人应向上走,而非与工具抢饭碗 观点:"人应该想着怎样做更好的工具,而不是跟工具抢活";自动化工具出现时,技术人员应转向解决更高层次的问题。 出处:阿里云开发者社区转载访谈 | 适用:学部④AI时代人才竞争力
13. 兴趣驱动而非功利驱动的人生哲学 观点:"当我觉得正在做的事情有意思,我就觉得投时间在里头是对的";提到导师所说"毕业后年入十万养家不是问题,满足基本需求后,真正的问题是你做的事让不让你快乐"。 出处:阿里云开发者社区转载访谈 | 适用:学部⑧生涯启蒙/兴趣与职业选择
14. 模型商业化的"感恩节火鸡"比喻 观点:售卖AI模型就像感恩节火鸡促销,必须在"过节"(模型贬值)前抓紧变现,模型迭代就像一个个感恩节,只有卖得更快才能赚更多利润;行业出现向7B-70B中等参数规模模型收敛的趋势,类比CNN发展史从追求"更大"到追求"更均衡"的演进路径。 出处:雷峰网专访 | 适用:学部②商业模式设计/算力经济学教学案例
2023年3月,贾扬清从阿里离职,没有追逐"做大模型"的风口,而是瞄准一个他判断需求更明确、更少人做的方向:如何帮助中小团队更弹性、更稳定、更低成本地部署AI模型。他判断"AI领域模型的保鲜期基本上是一年左右",与其自己下场做应用,不如做部署和推理层的基础设施。联合创始人包括 etcd 创始人李响、ONNX开创者白俊杰,团队核心成员多来自阿里、Google、Meta、Uber。
Lepton AI本质是一层"GPU资源软件管理层":从云服务商租用GPU,叠加自研的推理运行时与云原生调度能力后,再转租给开发者和企业客户,提供LLM推理API。盈利关键不在囤积硬件,而在软件层面的极致成本优化——通过大批量处理、动态批处理、量化、投机解码、prompt缓存等工程手段,把GPU利用率和吞吐量做到远超行业平均,从而在极低单价下仍能盈利。已知客户包括游戏公司Latitude.io、学术工具SciSpace等。公司规模极精简,收购时团队仅约20人。
2023年5月完成天使轮融资,金额约1100万美元,由 Fusion Fund、CRV 等领投。
据SemiAnalysis爆料,贾扬清在英伟达任职约一年后离职,主要原因:① 开源承诺未兑现——英伟达收购时承诺2026年开源Lepton核心软件平台,最终被否决,与他二十多年"把AI基础设施做成开放工具"的价值观冲突;② 产品执行偏离核心问题——团队资源被消耗在表层调整,"多租户"核心技术难题未被解决。贾扬清离职态度坚决,甚至放弃未归属股权。离职后不久,GPU云服务商 Hyperbolic 聘请他担任顾问。
⚠️ 核查说明:网传贾扬清"1万张GPU月租1亿,优化提升10%利用率省1000万"的成本算账金句,经调研核实并非贾扬清本人观点(系另一位AI Infra从业者朱亦博在42章经节目中的表述),已从本清单剔除,避免张冠李戴。
媒体专访/深度报道
播客/演讲
X(Twitter)原文
知乎(正文未能直接抓取,标题与存在性已通过搜索引擎摘要核实)